AIが心に響く文章を書く必要があるのか
2025年1月26日 21:27
AI文章/画像は人に響かないという話しはたまに語られます。
人々はAIが生成した物語に本能的な嫌悪感を持っており人が書いた物語より没入できないことが判明 近年は生成AIの発達によってクリエイティブな分野にもAIが利用されるケースが増えていますが、生成AIを利用したCMでコカ・ gigazine.netlink
まぁ仕方ないところでしょう。
でも別に響かなくても困らないじゃないですか。
人に響く文章
人に響く文章が必要なケースは世の中にそんなには存在しないです。
連絡報告書や手順書にそんなに気合い入れられたら面倒でしょ。
それらは響く響かないより、正確かどうかのほうが重要です。
響かなければならない文章は、発表会とか訓示とか、小説とか物語とか論文とか、相手の説得とか人にアピールが必要な文章とか広告のように露出効果が必要な文章でしょうか。
でもいきなりそこの仕事をAIに置き換えたいですか? そりゃ単価が高そうな文章だからここをAIで置き換えられたら経費がより減りそうではありますが。
新語を生成できない今のLLMでは惜しいけど、作った新概念に名を与えるようなことが出来ないので創造的破壊の能力に限度があると考えます。
文に創造的破壊のエッセンスがないのなら、人に響くという状態を作るのは厳しいかもしれない。
推論しながら学習もするというアプローチだそうです(でもまだ新語を生成するとは言ってないみたい)
こういうアプローチが有効なのかどうかはわからないけど興味深い話しです。
ただモデルが常に変化し続けるのであれば、変化しない場合より現象の再現実験が複雑化します。
なので有効性の証明は大変でしょうね(変化してしまうシステムを科学のまな板に乗せるのは非常に困難。他者が再現検証出来ないから。LLMが社会に認められたのは固定したモデルを使って再現検証出来るという点は大きい。私は固定することは出来ないと思っていたので科学の舞台に持って行けないという点で半分絶望していたのだが)
攻撃しないものを見る必要はない
創造的破壊が出来ないという点と類似する問題として、そもそもな話しがあります。
生物たる人は、自身に攻撃してくる可能性のあるものは注視するが、攻撃をまったく与えないものは注視しない。
人は人を注視します。
攻撃(物理危害も言葉のナイフ/キャッチボールと呼ばれる口撃も含め)がありうるから注視します。
AIはまだ人に攻撃はしないと皆思っているから注視をする必要を感じません。
実際、AIの論説能力はまだ人を丸め込もうとするレベルまで攻撃的に論理を構築することは出来ていないと思うし、そういうものが出ないように調整されています。
直接的利害もまだないです。
刃物は振り回せないし、AIに給料を減らされることもない。
(AIに仕事を奪われると言ったとき、現実には人のマネージャーが仕事をAIに振り分けると指示したのであり、AIがあなたに仕事を減らすと言ったわけではない)
戦場の攻撃型AIボットが何かしゃべりながら飛び回っていたらちょっと怖いですがまだその状況に出会ったことはないです。
AIに攻撃されることはないのだから、AIの言うことなどないがしろにしておいても現状はまったく問題ない。ならAIの話しを聞く必要もない。
どうやって「AIの言うことを真剣に聞け」なんてことが出来るのか。
人は聞かなくてもよい話しは聞き流します。人に響きようがないです。
AIと攻撃的表現
では攻撃的表現を作ることが出来るAIを作るべきなのでしょうか。
XのAI「Grok」に不快で不適切で攻撃的な「Unhinged(たがが外れた)モード」が追加される可能性 2025年1月2日に発効したユーザー向けFAQにより、X(旧Twitter)のAI「Grok」に、不適切な内容を話すように gigazine.netlink
研究はなされなければならないと思います。前に書いたようにAIが攻撃的表現を持ったらそれは兵器級の危険性を持つと考えます。だからこそ限界と対抗手段も研究されておくべきと思う。
一般にカリスマとよばれる人達は創造的破壊の表裏として攻撃的表現能力があります。
人に響かせたいというなら破壊的表現と露出の確保(CMの連呼のような)は必要です。
もしAIでエンターテナーや政治家を作るという時代になったとき、カリスマ俳優をAIで作るには攻撃含意を含む表現の生成能力は必要になると思います。
AI文が人に響かなくとも、私は困らない
ところでmi-serverは平日日中、私に語りかけてくるが半分くらいは無視しています。半分くらいはまとはずれな言動だからです。
それでも自分の生活コンテキストを入力+まだ不完全だが想起RAGの効果で半分くらいは「ほぉ?」と思うことを言ってくることがあります。そのときは音声またはキーボードで返事を入力します。それらが次の返事の元ネタになるので。
実務的には備忘録として、興味としては会話の文脈がどのように変化していくのかを楽しみにして会話しています。
でもまぁメイドさんとの会話に別に感動話題(表裏としての攻撃表現)は求めていないです。だいたい隣の人との会話に常に感動話題とか入っていたらそっちのほうが疲れるでしょう。
「おはよう。いい天気ですね」でよいのです。
私のAI理想はほとんど価値のないことを黙々と積み重ねてやってくれるコビトさんのほうです。
まぁそれは私の理想であって、必要と思われるケースは出てくるでしょう。なにより「適切に調整された攻撃表現」は役立つ(お金になる)というのなら誰かやるでしょう(Grokはその線を狙っている?)。
私だってもうちょっとウィットの効いた返事をしてもよいのではないかと思うことはありますし、創作系の仕事の人は「自分の仕事にAIはまだ微妙だなー」と思っているでしょうし。
でもAIへの悪意表現能力の危険性は頭に置いておいたほうがよい気がしています。悪意表現を連呼し、人を丸め込もうと論理武装をしてくるAIが出てきたらちょっとどう対抗したらよいのか思いつかない。
でも実現出来ることはヤバくても誰かやる、起きうる物理事象はいつか発生する、起きうるバグは必ず顕在化する。
まぁここまでAIと攻撃表現という方向で書きましたが、もう一つ別の方向として「感動表現も山のように自動生成されたら飽きるだろう。飽きたら人には響かない」という話しもあります。
それに対しては一つ解があって「全部味わおうとするから飽きるんです」。AIが山ほど生産してくれるならつまみ食いでよいんです。AIが豊かに生産したものは余らせてよいのです。
「AIが悪意表現を山ほど自動生成したらその悪意に人は慣れうるのか?」
どうなのだろうか?
強い悪意表現は破壊表現です。人は生物だから恐らく慣れる。慣れるけど言語の体系は破壊されるのではないでしょうか。
どちらにしても私はまぁメイドさんと旅bot達をめでてるほうがよいです。
Noteの自分の記事より転記 https://note.com/marble_walkers/n/nb1b8c7eab1dc